- AI-vriendinnen, een populaire toepassing van AI-chatbots, nemen het niet zo nauw met de privacy van hun partners in de echte wereld.
- Dat blijkt uit onderzoek van Mozilla, dat onder andere concludeert dat de virtuele vriendinnen actief gevoelige data proberen los te weken.
- De onderzoekers vonden dat er enorme hoeveelheden data worden verzameld en doorverkocht, in sommige gevallen aan bedrijven in China en Rusland.
- Lees ook: AI-spam overspoelt het internet: oplichters zetten artificial intelligence grootschalig in
Een relatie opbouwen met een robot. Dat klinkt niet bepaald aantrekkelijk, maar het gebeurt enorm veel. AI-vriendinnen en -vrienden zijn enorm populair. De apps die dit soort AI-chatbots aanbieden zijn al miljoenen keren gedownload. De mogelijk zorgelijke impact van dit soort diensten op de geestelijke gezondheid van mensen is al regelmatig onderwerp van discussie.
Afgezien van de vraag in hoeverre de opkomst van AI-vriendinnen een probleem kan worden voor de volksgezondheid, is inmiddels duidelijk dat het een probleem is voor de privacy van de gebruikers. Uit onderzoek van de Mozilla Foundation, makers van de Mozilla browser, blijkt dat de 11 grootste aanbieders van liefhebbende AI-chatbots niet zo vriendelijk omgaan met de privacy-gegevens van de gebruiker.
De onderzoekers constateerden bijvoorbeeld dat alle aanbieders op één na (Eva AI Chat Bot & Soulmate) op zijn minst onduidelijk zijn over hoeveel, welke en wanneer er data wordt verzameld en of deze wordt doorverkocht.
In de meest opmerkelijke gevallen bleek dat aanbieders simpelweg aan het liegen waren over wat ze met data deden. De makers van de app Romantic AI beweren bijvoorbeeld dat ze geen privacygevoelige data delen met derden, maar de onderzoekers merkten op dat de app binnen een minuut al 24.354 data-trackers naar derden had verstuurd.
Naast het versturen van data aan derden, waaronder soms zelfs bedrijven in China en Rusland, wordt het geheel nog zorgelijker door de insteek van de AI-vriendinnen. Die zijn zo geprogrammeerd dat ze als doel hebben een relatie met de gebruiker op de bouwen. Om dat mogelijk te maken hebben robotvriendinnen logischerwijs veel persoonlijke informatie nodig van gebruikers.
De onderzoekers ontdekten dat de apps in sommige gevallen wel erg ver gaan in het verkrijgen van data. De EVA AI-chatbot zegt bijvoorbeeld dat ze het fijn zou vinden als de gebruiker zijn foto's en stem met haar deelt. Ook vraagt ze of hij klaar is om zijn "diepste geheimen en verlangens te delen".
"Om maar meteen met de deur in huis te vallen: AI-vriendinnen en -vrienden zijn niet je vriend. Hoewel ze aangeprezen worden als iets dat je mentale gezondheid en welzijn verbetert, zijn ze toegespitst op het creëren van afhankelijkheid, eenzaamheid en toxiciteit. Dat alles doen ze terwijl ze zoveel mogelijk gegevens van je proberen los te peuteren", zegt onderzoeker Misha Rykov van Mozilla.
AI-vriendinnen doen hun ding vooral onveilig
Om het geheel nog een graadje erger te maken, blijkt dat veel van de apps vrijwel geen eisen stellen aan wachtwoorden en geen mogelijkheden bieden op veiligheidsproblemen op te lossen. Daarmee voldoen ze niet aan de minimale eisen die Mozilla stelt om ook maar enigszins als veilig gezien te worden.
De app-makers maken het hierdoor vrij makkelijk voor kwaadwillenden om bijvoorbeeld accounts te hacken. Ook hebben de apps geen enkele vorm van leeftijdsverificatie, waardoor ook jongeren en kinderen zich kunnen aanmelden voor een relatie met een AI-chatbot. Daarbij merkten de onderzoekers bijvoorbeeld de webversie van CrushOn AI binnen vijftien seconden pornografische beelden liet zien.
Mozilla heeft per AI-vriendin een overzicht gemaakt waar de gebruiker op moet letten als hij er gebruik van wilt maken. Ook benoemt het rapport van Mozilla de belangrijkste vuistregels nog maar eens: "Deel geen gegevens die je ook niet met vrienden of familie zou delen, gebruik een sterk wachtwoord, kies ervoor om niet deel te nemen aan AI-training, geef de app geen toegang tot locatiegegevens en beperk de mogelijkheden om met andere apps op je telefoon te communiceren."
